Az elme nem számítógép, az AI nem intelligencia – a transzhumanizmus meg úgy hülyeség, ahogy van

„A technológia, elsősorban az információtechnológia, a szintetikus biológia, a nanorobotok és a mesterséges intelligencia fejlődése két évtizeden belül soha nem látott bőséget hoz az emberiség számára, és

– írja a világhírű futurista, Ray Kurzweil, a Google vezető MI-kutatója tavaly megjelent könyvében, amelynek címe The Singularity is Nearer – When We Merge with AI (Még közelebb a szingularitás – Amikor összeolvadunk az MI-vel). (…)

Ezzel fajunk új korszakba lép, aminek léptékét és jellegét ma még képtelenek vagyunk megérteni, de ha képesek vagyunk a fejlődés tudományos, etikai, társadalmi és politikai kihívásait kezelni, állítja a szerző, sokkal jobb hellyé tehetjük a világunkat. Persze ezek a jóslatok csak annak újak, aki még nem hallott Kurzweil 2005-ös, hasonló című, The Singularity is Near (Közel a szingularitás) című könyvéről.”

Na most: az emberi elme nem számítógép, a számítógép pedig, ahogy a mesterséges intelligencia, sosem fog úgy működni, mint az emberi elme, sem vica versa. Továbbá a transzhumanizmus még megvalósulása esetén sem hoz létre új lényt, sem szuperembert, sem szuperintelligenciát, a szingularitás ezért baromság. Összeolvadni sem fogunk a mesterséges intelligenciával, maximum nagyon-nagyon használni fogjuk. 

Alább nem arról olvasható egy értekezés, hogy a transzhumanista-szingularista jövőképek fényes vagy sötét jövőt jelentenek, ígéreteik jók-e vagy rosszak. Nyilván rohadtul nem vagyok Kurzweil-féle technooptimista, néha – mint minden jó konzervatív – technopesszimista vagyok, egyébként meg simán csak technoszkeptikus, azaz

De most nem arról fogok elmélkedni, hogy miért lenne rossz, ha a transzhumanista álmok megvalósulnának, hanem arról, hogy néhány alapvető állításuk egyszerűen lehetetlenség.

Mindez nem a saját gondolatmenetem lesz, hanem Edward Feser amerikai filozófus (a kaliforniai Pasadena City College filozófia professzora) 2024-es, emberi természetről írt monumentális munkájának vonatkozó eszmefuttatásait fogom összefoglalni. 

Az emberi elme nem számítógép, a számítógép nem intelligens

Mint Feser írja: a neurobiológia állítólag bebizonyította, hogy a gondolkodás pusztán csak neuronok tevékenysége, a kortárs gondolkodásban pedig népszerű az a felfogás, ami szerint a gondolkodás a szoftver, az agy a hardver.

Az emberi intellektus (elme) három sajátossága – kissé körülményesen, a hagyományos felfogás szerint fogalmazva –: a fogalmak megragadásának képessége, a különböző fogalmak állításokká való alakítása, illetve az egyik állítástól a másikig való logikai érvelés képessége. Jelezném (én, nem Feser): mindegy, hogy valaki milyen jó ezekben, mert ez csak mennyiségi kérdés. A lényeg, hogy az emberi elmének ezek a meghatározó sajátosságai. És ez akkor is igaz, ha valakinek, mondjuk, súlyos agysérülése van, vagy valamilyen fogyatékossággal rendelkezik – az ő eseteik ugyanis nem a bevett működés esetei, de amúgy még ők is képesek ilyesmire.

Magyarán lényegtelen, hogy valakinek hányas az IQ-ja, definíció szerint az emberhez tartozik (konstitutív eleme) az elméje, aminek a fent leírtak a sajátosságai, hiszen az alacsony IQ-jú elme is elme. 

A számítógép és annak fejlett változata, a mesterséges intelligencia azonban nem csinál ilyesmiket, az pusztán algoritmusokat futtat le. Az emberi elme ennél sokkal többre képes. S hogy mi a különbség az algoritmus-alapú gépek és az emberi elme között?

Feser egy hosszan kifejtett példán (a multiplikációs problémán) szemléltetve – mely példát itt mellőzzük – arra jut, hogy az emberi elme képes mechanikusan végigvinni egy algoritmust úgy, hogy nem érti azt, és mégis a helyes eredményre jut;

Az embernek nem kell tudnia multiplikálni, sem értenie azt, hogy mi a multiplikáció, de érti az algoritmus szabályait.

Hogyan tudja akkor követni az algoritmust? A válasz természetesen az, hogy az emberi mérnökök és programozók, akik értik az algoritmust, úgy alkották meg a gépet, hogy annak működése egyes alapvető aspektusokat tekintve olyan, mint amikor az ember követi az algoritmust. Az ember úgy viselkedik, mintha értené a multiplikációt, de valójában az algoritmust érti. A számítógép úgy működik, mintha értené a multiplikációt, és mintha értené az algoritmust, de egyiket sem „érti” a szó valódi értelmében. Az emberek és a számítógépek nem ugyanabban az értelemben követik az algoritmust. Van analógia aközött, amit az ember és amit a számítógép csinál, de egyébként alapvetően különböznek.

Egy másik feseri példával élve: amikor a pincér mondja neked, hogy „a mosdó a bejárat mellett van”, érti, hogy mit mondott neked. Lehet azonban, hogy fel van írva a falra, hogy „a mosdó a bejárat mellett van”.

Persze furcsának tűnhet, hogy Feser a számítógépet egy falon lévő egyszerű jelhez hasonlítja, hiszen a kettő mégsem ugyanaz. Persze, nem ugyanaz. Amire Feser itt utal, az az, hogy a számítógép (beleértve a mesterséges „intelligenciát”) és a falon lévő jel között tárgyunk szempontjából mennyiségi különbség van, míg a számítógép és a jel, valamint az emberi elme között áthidalhatatlan minőségi különbség. Azaz: 

Ugyanis a számítógép talán tud produkálni olyan eredményeket, amelyeket az emberi elme (intellektus), csakhogy épp úgy teszi ezt, hogy nincs jelen egy elme. Azaz „az elme hiányzik a gép működéséből, habár természetesen jelen van a gép alkotóiban és használóiban. De épp ezen ok miatt csak valami számítógépen kívüli az, aminek lehet elméje (megintcsak: az alkotóinak és a használóinak), nem magának a számítógépnek.” A számítógépek algoritmusának nincs elméje, ezért Feser szerint egyszerűen inkoherens azt feltételezni, hogy ha algoritmust táplálunk a gépbe, akkor intelligenciát (nem IQ-t értve ezalatt, hanem intellektust, elmét) tápláltunk belé, ahogy

Az amerikai filozófus arra is rámutat, hogy nem pusztán szemantikai kérdésről van szó, amit meg lehetne oldani azzal, hogy máshogy definiáljuk az „intelligencia” (melyet elmének fordítok) és a „gép” szavunkat. A különbség ugyanis lényegi a két szó által takart jelenség között. A számítógép „viselkedése” ugyanis algoritmikus, nem azért, mert elméje van, hanem mert emberi elmék ily módon alkották meg őket. Ugyanez áll az intelligencia fogalmára: az újradefiniálása nem oldja meg a problémát. Az se megoldás, ha azt állítjuk, hogy bizonyos értelemben a számítógép tud gondolkodni, ugyanis az algoritmus szabályainak automatikus követése (melyet a programozók programoztak a gépbe) nem bizonyíték semmiféle gondolkodásra. 

mint amikor az illuzionisták meggyőzően adják elő a mágia-utánzást – akármilyen profi, az sosem lesz valódi mágia, hiszen lényege szerint szimuláció. Márpedig „valaminek a szimulálása, akármilyen meggyőző is, nem hozza létre a dolog valóságát”.

A számítógépes „nyelvek” valójában nem nyelvek, csak antropologizálva így nevezzük őket az egyszerűség kedvéért (azok valójában programok), és azokat a szó szoros értelmében nem a számítógépek „használják”, hanem a programozók és felhasználók.

A nyelvi kifejezések akkor is értelmezhetőek számunkra, ha nem követik egy adott nyelv szabályait, márpedig ha egy emberi nyelv puszta szabályrendszer és annak követése volna, ez nem lenne lehetséges. A számítógép csak azt tudja értelmezni, amire programozva van. Nem fog tudni értelmezni új kontextusokat és abban felmerülő relevancia-kérdéseket (nem tudja kiszűrni, egy adott szituációt tekintve mi releváns és mi nem egy kontextusban, hacsaknem előre beprogramozták neki az adott kontextust és az arra vonatkozó relevanciákat más elmék, de más kontextusokat és új relevancia-kérdéseket akkor sem tud értelmezni).

Feser azt is hangsúlyozza, hogy a kérdést tekintve lényegtelen, hogy az emberi elmét szellemi vagy anyagi valóságnak tartjuk, azaz nincs szükség egy sor filozófiai előfeltevésre az ügyet illetően: 

Aztán – mutat rá filozófusunk – ott van John Searle érvelése is, ami arra mutat rá, hogy a számítógépes programok teljes mértékben szintaktikaiak, az elmének azonban szemantikája is van, a szintakszis pedig nem váltja ki a szemantikát, szóval a programok nem elmék. Searle betámadja azt az érvelést is, ami szerint az agyunk algoritmusokat futtat, szóval tekinthető digitális számítógépnek – eme felfogást pedig kognitivizmusnak nevezi el.

De a szimbólumok és a szintaktika nem belső tulajdonságai a fizikai világnak, hanem megfigyelő-relatív sajátosságai. Valami csak akkor lesz szimbólum, vagy csak akkor követ szintaktikai szabályokat, ha ilyen értelmezést kapcsolunk hozzá. Eme esetben azonban sem az agy, sem semmi más nem nevezhető magából fakadóan digitális számítógépnek, értelmezést csak az ember tud bármihez kapcsolni, a számítógépekbe meg ő programozza be azokat.

Vagyis azért sincs értelme a számítógép működéséhez hasonlítani az emberi elmét, mert

De ennél is radikálisabb állításról van szó: az ugyanis, hogy valami algoritmust futtat, előfeltételezi az elmét, mármint egy külső elmét, ami beprogramozta. És mivel előfeltételezi az elmét, ezért nem lehet része az elme magyarázatának. Mindez igaz a „gépi tanulásra” és a mesterséges intelligenciára is, ami valójában nem intelligens, és nem is intelligencia (azaz – teszem hozzá én – itt pusztán egy felszínes fogalmi egyezésről van szó, ami elterjedt a hétköznapi szóhasználatban, mivel hajlamosak vagyunk antropomorf módon kezelni az állatokat és a gépeket). 

Mint írja: amennyiben a számítógép képes utánozni az intelligens viselkedést, az akcidentális, nem pedig szubsztanciális formák, és inkább excentrikus, sem pedig intrinzikus teleológia miatt van. Azaz nem valódi szubsztanciákról, hanem puszta műtermékekről, emberi alkotásokról beszélünk. Az intelligens, elmével rendelkező valamik azonban szubsztanciák, nem műtermékek. De egy gép az műtermék, s nem lehet valódi szubsztancia. Ebből fakadóan egy gép nem lehet intelligens, abban az értelemben, hogy nem lehet elméje. Sőt: 

Lehet, hogy az algoritmusok és az MI jobban számol egy bölcsésznél, vagy egy alacsony IQ-jú embertárdunknál, de lényegi értelemben a bölcsész és az alacsony IQ-jú embertársunk úgymond okosabb az algoritmusoknál és az MI-nál. Ugyanis a kérdés nem az, hogy mennyire jól használja valaki az agyát, és mennyire fejlett bármilyen algoritmus, hanem arról, hogy teljesen más a működésmódjuk.

Transzhumanizmus, mesterséges intelligencia és szingularitás

Feser nem Kurzweillel, hanem a transzhumanizmus egy másik propagátorával, Steve Mannel vitatkozik. Mann a „viselhető számítógépek” szószólója, amelyekkel növelni lehet a viselő személy környező világról alkotott érzékelését. Mann magát kiborgnak tartja, és úgy hiszi, hogy a poszthumán korba lépve újra tudjuk alkotni magunkat, és túl tudunk lépni az emberi mivolt eddigi fizikai és mentális korlátain. 

Mindhárom esetben annyiról van szó csupán, hogy egy adott szubsztancia más akcidentális formát vesz fel, amitől azonban a szubsztancia megmarad, nem veszti el szubsztanciális formáját. A fokozati különbség nem jelent fajtabeli különbséget. 

Eszerint a mesterséges intelligencia fejlesztése egyszer csak elvezet a szingularitáshoz, amikor létrejön egy „szuperintelligencia”, amihez képest mind a számítógépek mai tudása és a mai emberi elme is eltörpül. Ami a technooptimisták szerint fantasztikus lesz (szuperintelligens szuperemberek jönnek létre), a technopesszimisták szerint pedig inkább az lehetséges, hogy a gépek önállósodnak és átveszik az uralmat az emberek felett, és egy disztopikus japán jövő-animéban találjuk magunkat. 

Csakhogy itt jön egy kulcsmondat Fesertől: 

Azaz azok a félelmek, hogy a jövőben a gépek jobban csinálják majd azt, amit az ember csinál, és imigyen „szuperintelligensek” lesznek, „teljesen alaptalanok”. A számítógépek (és a mesterséges intelligencia bármilyen formája) egyáltalán nem azt csinálja, amit az ember, nem úgy működik, ahogy az emberi elme működik, és így nem tud ebben jobb sem lenni.

Az, hogy technológiai eszközökkel bővítjük az embert, pusztán technológiailag fejlettebb embert fog jelenteni, nem pedig bármiféle szuperembert. A mesterséges intelligencia további fejlesztése sem fog soha olyasfajta elmét (intelligenciát) létrehozni, mint az emberi elme, 

Maximum ijesztően jól tudja imitálni számunkra gondolkodásunk egyes aspektusait, és így idézőjelben „gondolkodni” tud; de ez a „big data” és az egyre szofisztikáltabb algoritmusok miatt van, ettől még soha nem tud sem öntudata lenni, sem a szó valódi értelmében alkotni nem fog tudni.

Örök életről pedig szó sincs abban az értelemben, ahogy a transzhumanisták értik. De gondolom, ha a transzhumanisták örök élet mellett érvelhetnek, akkor egy sokkal komolyabb, természetes észre alapozott érvelés a feltámadás és a testi halál utáni örök élet mellett Edward Fesertől elfogadható tud lenni. 

Neurobiológia és régimódi filozofálás

Feser arisztoteliánus-tomista filozófus. Ez azt jelenti, hogy a középkorban az ókori görög Arisztotelész gondolkodását igaznak találó, s dominánssá tevő, de keresztény köntösbe öltöztető (filozófiáján keresztény korrekciókat végrehajtó), 13. századi Aquinói Szent Tamás és a skolasztika modern változatának iskolájához tartozik. 

Márpedig az arisztoteliánus filozófia alapjait a közkeletűen elterjedt elképzelés szerint a tudományos forradalom idején, azaz három-négyszáz éve John Locke, René Descartes, Francis Bacon – és persze még inkább azóta a modern természettudomány – egyszerűen „megcáfolta”. Ez azonban nem igaz. Jonathan Barnes angol Arisztotelész-szakértő szerint valójában nem szakítottunk az arisztoteliánus hagyománnyal. Ő úgy látja, hogy 

Valójában nem szakítottunk Arisztotelésszel, mivel (legalábbis eme tekintetben) Arisztotelész is empirista volt. Feser pedig Aristotle’s Revenge: The Metaphysical Foundations of Physical and Biological Science (Arisztotelész bosszúja: a biológia és fizika tudományának metafizikai alapjai) című, 2019-es kötetében egyenesen amellett érvel, hogy a legjobb filozófiai alapozást a 21. században is az arisztoteliánus metafizika kínálja a természettudományoknak. 

Sőt: a neurobiológia eredményeit tárgyalva Feser azt is megjegyzi, hogy szerinte azok

Persze az az állítás nem összeegyeztethető az arisztotelészi-tomista felfogással, hogy a neurobiológia (vagy bármely természettudományos eredmény) eme filozófia (vagy bármely más filozófiai iskola) belátásai helyett megmagyarázott bármit is a saját szűk területén kívül (mi az ember, pusztán a neuronok teljes mértékben megmagyarázzák az elmét, stb.); szóval a redukcionista szcientista felfogás nem összeegyeztethető a Feser által képviselt felfogással. Ám mégis: ha azokon túl tekintve hajlandóak vagyunk elfogadni, hogy az ember miben létét, a világot, a világ és lét értelmét a természettudományon túl találjuk meg, akkor 

azaz az arisztoteliánus-tomista filozófia képviselője nem kell, hogy „engedményeket tegyen” a természettudománynak, azon belül például a neurobiológiának, mert abba, amit ő évszázadok óta mond az emberről, a  természettudományos és azon belül neurobiológiai eredmények eleve beleillenek. De így is hosszúra nyúltam, szóval ezen a ponton Feser köteteihez utalom a kedves olvasót, aki egyáltalán eljutott eszmefuttatásunk végéig. 

Szóval ennyit a transzhumanizmus és a mesterséges intelligencia kissé túltolt igényeiről és a hozzájuk kapcsolt várakozásokról. Lehetséges, hogy a technikai fejlődést segítik, életünket hosszabbá és kényelmesebbé teszik. Vagy épp túlbonyolítják.

és evilági örök élet sem lesz. Feser szerint e tekintetben meg kell elégednünk a túlvilágival.

***